Cùng thời gian mà chiếc máy bay tiền nhiệm của nó là chiếc Kawanishi H6K được đưa vào hoạt động năm 1938, Hải quân Nhật đã yêu cầu phát triển một chiếc máy bay tuần tra tầm xa lớn hơn. Kết quả là một thiết kế máy bay lớn kiểu cánh vai được đa số cho là chiếc thủy phi cơ tốt nhất của cuộc chiến[1][2][3]. Dù vậy, việc phát triển gặp nhiều trục trặc và chiếc nguyên mẫu tỏ ra khó điều khiển trên mặt nước. Những chiếc nguyên mẫu tiếp nối đã tinh chỉnh lại thiết kế lườn tàu của chiếc thủy phi cơ.

Phiên bản cải tiến H8K2 xuất hiện không lâu sau đó, và được trang bị vũ khí phòng thủ rất mạnh đạt được sự ngưỡng mộ trong các đội bay Đồng Minh,[4] cũng như được đặt tên lóng là "flying porcupine" (Con nhím bay). Chiếc H8K2 là phiên bản nâng cấp dựa trên chiếc H8K1 có động cơ mạnh mẽ hơn, vũ khí trang bị được cải tiến đôi chút, và gia tăng trữ lượng nhiên liệu. Đây là phiên bản cuối cùng, với 112 chiếc được chế tạo.

Có gần 40 chiếc thuộc phiên bản vận tải chuyên biệt H8K2-L được sản xuất, có khả năng chuyên chở 62 người. Chiếc máy bay này còn được biết đến dưới tên gọi Seiku (晴空, "Clear Sky"). Nó được giảm bớt các thiết bị phòng thủ, và nhằm tăng chỗ trống bên trong máy bay, các thùng nhiên liệu trong thân bị tháo bỏ, do đó đã làm giảm tầm bay xa của nó.